Securing the AI Agent: A Unified Framework for Multi-Layer Agent Red Teaming
保护AI Agent：多层红队测试的统一框架
🧭 Agent安全 · 多层红队测试
Tencent Zhuque Lab
提出开源框架AI-Infra-Guard，分层匹配检测范式覆盖基础设施到模型的全攻击面并加入供应链审计
📌 工作参考价值（4 点）
- 多层安全防护思路：将Agent系统攻击面划分为基础设施、协议/工具、行为与模型四层，每层采用不同检测机制（规则匹配、Agent驱动审计、黑盒多轮测试、越狱攻击），可作为电商Agent安全架构参考。
- 第三方MCP与技能包供应链审计：在引入外部MCP服务器或Agent技能时，执行自动化漏洞扫描与代码审查，防止恶意工具调用导致数据泄露或操作风险，适合社区化Agent生态的安全控制。
- Agent行为红队测试：对推荐/对话Agent进行多轮黑盒交互，模拟恶意用户诱导模型执行危险动作（如查看他人订单、修改配置），可迁移到线上Agent上线前的安全评测流程。
- 模型层越狱防护验证：使用框架内置的26+攻击算子和多数据集，快速构建对自研LLM的越狱测试，评估模型在敏感推荐或用户数据问答场景下的抗攻击能力。